Dimensión fractal de Fourier para predecir la generalización de redes neuronales
Aprende cómo la dimensión fractal de Fourier predice la generalización de redes neuronales sin datos de validación. Nueva métrica basada en frecuencia.
#descenso de gradiente estocástico
Más allá de los regímenes lineales: Autoencoders con cuello de botella
Descubre cómo el análisis de campo medio explica el entrenamiento de autoencoders no lineales con cuello de botella y su convergencia al óptimo.
Aprendizaje de sistemas dinámicos no lineales controlados de alta dimensión (I)
Descubre cómo las neural ODEs unifican modelos dinámicos y deep learning, con teoría de campos medios para entrenamiento en alta dimensión.
Análisis de estabilidad de Sharpness-Aware Minimization
Descubre cómo el algoritmo SAM puede quedarse atrapado en puntos de silla y cómo el momentum y el tamaño de lote ayudan a mejorar su estabilidad y generalización.
Deep Learning como la construcción disciplinada de objetos dóciles
Exploramos cómo la geometría dócil proporciona un marco matemático para garantizar la convergencia del descenso de gradiente en deep learning, incluso en entornos no lisos y no convexos.
La paradoja de la optimización por resultados en LLMs
Los LLMs optimizados por resultados alcanzan altos benchmarks pero colapsan en razonamiento. Te explicamos la paradoja y cómo los modelos de recompensa de procesos la resuelven.
Convergencia no asintótica de algoritmos estocásticos: marco de Lyapunov
Descubre cómo el marco de Lyapunov permite analizar la convergencia en tiempo finito de algoritmos estocásticos como Q-learning y SGD. Ideal para IA y RL.